前面我們都是使用model.generate來做文字接龍,雖然這樣能掌握完整流程(例如token編碼、解碼、Top-k抽樣等),但在實務上,如果只是要快速建立聊天或文字生成功能,其實Hugging Face提供的pipeline更簡單。
pipeline是什麼?
pipeline是Hugging Face的高階工具,用來封裝模型的常見任務。
它就像一條自動化生產線,把輸入的文字丟進去→模型幫你跑→直接拿結果。
使用pipeline可以省略將文字轉成token ID再轉回來的過程,不需要再手動轉成token ID、也不用decode。
pipeline任務包括:
實作pipeline版的多輪對話